Ông sinh tại Hải Dương[1] trong một gia đình có truyền thống Nho học.

Năm 1927, tốt nghiệp thành chung, ông vào Gia Định làm công chức sở Bưu điện, bắt đầu viết cho Nam Phong tạp chí và sau này còn viết cho nhiều báo khác nữa, như: Tiểu thuyết thứ Bảy, Đại Việt tạp chí, Nam Kỳ tuần báo...

Ông đã cùng Hoài Thanh, Phan Khôi tham gia cuộc tranh luận văn học "Nghệ thuật vị nghệ thuật – Nghệ thuật vị nhân sinh" với Hải Triều vào thập niên 1930[2].

Sau Cách mạng tháng Tám, ông chuyển sang các đề tài chính trị, tham gia Đảng Xã hội Pháp SFIO.

Năm 1947 đến 1949, Thiếu Sơn làm chủ bút báo Justice (Công lý), tích cực đấu tranh kháng Pháp đến nổi có lần bị bắt giam.

Năm 1949, ông cùng với Võ Tòng, Dương Tử Giang trốn ra vùng kháng chiến, tham gia Chi hội Văn nghệ Nam Bộ, làm việc ở Đài phát thanh Nam Bộ và là thư ký tòa soạn báo Cứu quốc Nam Bộ.

Năm 1954, sau hiệp định Genève ông trở lại Sài Gòn, rồi cùng với Võ Tòng, Dương Tử Giang, Lý Văn Sâm, sử dụng các báo Công Lý, Điện Báo, Thần Chung đấu tranh chống chế độ của Tổng thống Ngô Đình Diệm. Vì vậy, ông bị chính quyền bắt giam cho đến năm 1960.

Năm 1968, ông tham gia Liên minh "Dân tộc, Dân chủ, Hòa bình", đến năm 1972 thì bị chính quyền của Tổng thống Nguyễn Văn Thiệu bắt đày ra Côn Đảo.

Năm 1973, ông được tự do tại Lộc Ninh, nhờ thỏa thuận "trao trả tù binh" giữa các bên. Thiếu Sơn trở ra Bắc rồi sang Pháp để vận động Việt kiều ủng hộ cuộc kháng chiến chống Mỹ.Cuối năm 1975, ông trở về nước, đoàn tụ với gia đình.

Tuy đau yếu luôn, nhưng ông vẫn viết bài cho báo Đại đoàn kết và Sài Gòn giải phóng, cho đến khi ông bị tai biến mạch máu não rồi qua đời tại Thành phố Hồ Chí Minh, thọ 70 tuổi.